Năm 756, hai tướng nhà Đường là Quách Tử Nghi, Lý Quang Bật mang quân tấn công Hà Bắc. Sử Tư Minh bị mắc mưu Quách Tử Nghi, bại trận ở huyện Hành Đường, sau đó dù đã được An Lộc Sơn tiếp viện, vẫn bị liên quân của Tử Nghi và Quang Bật phối hợp đánh bại ở Gia Sơn một trận nữa. Sử Tư Minh thu tàn quân về cố thủ ở Bác Lăng, bị hai tướng Quách, Lý vây hãm.

Trong khi đó, cánh quân Yên của An Lộc Sơn mở rộng chiến trường ra các nơi. Tới tháng 6 năm 756, An Lộc Sơn mang quân tấn công Trường An, bị tướng Kha Thư Hàn mang 20 vạn quân án ngữ trước cửa ải Đồng Quan.

An Lộc Sơn án binh lâu ngày ở Đồng Quan chưa đánh được. Giữa lúc đó, Huyền Tông nghe tin phương đông thắng trận, nôn nóng muốn diệt Yên, bèn hạ lệnh bắt Kha Thư Hàn ra quân, dù Kha Thư Hàn muốn chờ quân của Lý, Quách đánh về phối hợp nhưng vua Đường không nghe. Kha Thư Hàn bất đắc dĩ phải xuất quân. Quân Đường ở kinh kỳ vốn đông nhưng yếu ớt, bị quân Yên đánh tan tành. Hai mươi vạn quân Đường bị giết, bản thân Kha Thư Hàn bị bắt sống. An Lộc Sơn thắng lớn, kéo quân vào Trường An.

Đường Huyền Tông và Dương Quốc Trung hối hả bỏ chạy vào Thục. Tình trạng quân Đường vô cùng hỗn loạn. Các tướng sĩ oán hận anh em Dương Quốc Trung và Dương Quý phi nên nổi loạn giết Quốc Trung và ép Huyền Tông xử tử Quý Phi, nếu không sẽ không hộ giá nữa. Huyền Tông đành cho Quý Phi thắt cổ ở Mã Ngôi.

Thái tử Lý Hanh lên ngôi ở Linh Vũ, tức là Đường Túc Tông, vọng tôn Huyền Tông làm thượng hoàng. Hai tướng Quách Tử Nghi, Lý Quang Bật đang thắng Sử Tư Minh nhưng phải mang quân về Linh Vũ hội với Túc Tông. Sử Tư Minh thừa cơ phản công chiếm lại 13 quận ở Hà Bắc. An Lộc Sơn bèn phong ông làm Tiết độ sứ Phạm Dương.

Đầu năm 757, An Lộc Sơn bị con trai là An Khánh Tự giết chết. Sử Tư Minh không thần phục Khánh Tự, lui về cố thủ ở Phạm Dương. An Khánh Tự bèn mang quân tới đánh Tư Minh. Nghe theo lời các mưu sĩ, Sử Tư Minh quyết định quy hàng nhà Đường để tránh việc bị cả quân Đường và quân Khánh Tự truy sát. Ông mang 8 vạn quân dưới quyền cùng 13 quận Hà Bắc về hàng. Đường Túc Tông mừng rỡ, phong ông là Quy Nghĩa Vương, kiêm Tiết độ sứ Phạm Dương.